Tehisintellekti eetika: ülemaailmne juhend algoritmilise kallutatuse tuvastamiseks

Tehisintellekt (AI) muudab kiiresti tööstusharusid ja mõjutab elusid üle maailma. Kuna tehisintellekti süsteemid muutuvad üha levinumaks, on ülioluline tagada, et need oleksid õiglased, erapooletud ja vastavuses eetiliste põhimõtetega. Algoritmiline kallutatus, süsteemne ja korratav viga arvutisüsteemis, mis loob ebaõiglasi tulemusi, on tehisintellekti eetikas oluline murekoht. See põhjalik juhend uurib algoritmilise kallutatuse allikaid, tuvastamise ja leevendamise tehnikaid ning strateegiaid õigluse edendamiseks tehisintellekti süsteemides ülemaailmselt.

Algoritmilise kallutatuse mõistmine

Algoritmiline kallutatus tekib siis, kui tehisintellekti süsteem toodab tulemusi, mis on süstemaatiliselt vähem soodsad teatud inimgruppidele kui teistele. See kallutatus võib tuleneda mitmesugustest allikatest, sealhulgas kallutatud andmetest, vigastest algoritmidest ja tulemuste kallutatud tõlgendamisest. Kallutatuse päritolu mõistmine on esimene samm õiglasemate tehisintellekti süsteemide loomise suunas.

Algoritmilise kallutatuse allikad

• Kallutatud treeningandmed: Andmed, mida kasutatakse tehisintellekti mudelite treenimiseks, peegeldavad sageli olemasolevaid ühiskondlikke eelarvamusi. Kui andmed sisaldavad teatud rühmade moonutatud esindatust, õpib tehisintellekti mudel neid eelarvamusi ja põlistab neid. Näiteks kui näotuvastussüsteem on treenitud peamiselt ühe etnilise rühma piltide põhjal, võib see teiste etniliste rühmade nägude puhul halvasti toimida. Sellel on oluline mõju õiguskaitsele, julgeolekule ja muudele rakendustele. Mõelgem COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) algoritmile, mis leiti ebaproportsionaalselt märgistavat mustanahalisi süüdistatavaid suurema retsidiivsusriskiga.
• Vigane algoritmi disain: Algoritmid ise võivad kallutatust tekitada isegi pealtnäha erapooletute andmete puhul. Tunnuste valik, mudeli arhitektuur ja optimeerimiskriteeriumid võivad kõik tulemusi mõjutada. Näiteks kui algoritm tugineb tugevalt tunnustele, mis on korrelatsioonis kaitstud tunnustega (nt sugu, rass), võib see tahtmatult diskrimineerida teatud rühmi.
• Kallutatud andmete märgistamine: Ka andmete märgistamise protsess võib kallutatust tekitada. Kui andmeid märgistavatel isikutel on alateadlikke eelarvamusi, võivad nad andmeid märgistada viisil, mis neid eelarvamusi peegeldab. Näiteks sentimentanalüüsis, kui märkijad seostavad teatud keelemustreid konkreetsete demograafiliste rühmadega, võib mudel õppida ebaõiglaselt kategoriseerima nende rühmade väljendatud sentimenti.
• Tagasisideahelad: Tehisintellekti süsteemid võivad luua tagasisideahelaid, mis süvendavad olemasolevaid eelarvamusi. Näiteks kui tehisintellektil põhinev värbamistööriist on naiste suhtes kallutatud, võib see soovitada intervjuudele vähem naisi. See võib viia vähemate naiste palkamiseni, mis omakorda tugevdab kallutatust treeningandmetes.
• Mitmekesisuse puudumine arendusmeeskondades: Tehisintellekti arendusmeeskondade koosseis võib oluliselt mõjutada tehisintellekti süsteemide õiglust. Kui meeskondades puudub mitmekesisus, on vähem tõenäoline, et nad tuvastavad ja käsitlevad potentsiaalseid eelarvamusi, mis võivad mõjutada alaesindatud rühmi.
• Kontekstuaalne kallutatus: Ka kontekst, milles tehisintellekti süsteemi kasutatakse, võib kallutatust tekitada. Ühes kultuurilises või ühiskondlikus kontekstis treenitud algoritm ei pruugi teises kontekstis kasutamisel õiglaselt toimida. Kultuurinormid, keelenüansid ja ajaloolised eelarvamused võivad kõik rolli mängida. Näiteks võib ühes riigis klienditeeninduse pakkumiseks loodud tehisintellektil põhinev vestlusrobot kasutada keelt, mida peetakse teises riigis solvavaks või sobimatuks.

Algoritmilise kallutatuse tuvastamise tehnikad

Algoritmilise kallutatuse tuvastamine on tehisintellekti süsteemide õigluse tagamiseks ülioluline. Kallutatuse tuvastamiseks tehisintellekti arendustsükli erinevates etappides saab kasutada mitmesuguseid tehnikaid.

Andmete auditeerimine

Andmete auditeerimine hõlmab treeningandmete uurimist, et tuvastada potentsiaalseid kallutatuse allikaid. See hõlmab tunnuste jaotuse analüüsimist, puuduvate andmete tuvastamist ja teatud rühmade moonutatud esindatuse kontrollimist. Andmete auditeerimise tehnikad hõlmavad:

• Statistiline analüüs: Kokkuvõtlike statistikute (nt keskmine, mediaan, standardhälve) arvutamine erinevate rühmade jaoks, et tuvastada erinevusi.
• Visualiseerimine: Visualisatsioonide (nt histogrammid, hajuvusdiagrammid) loomine andmete jaotuse uurimiseks ja kõrvalekallete tuvastamiseks.
• Kallutatuse mõõdikud: Kallutatuse mõõdikute (nt ebavõrdne mõju, võrdsete võimaluste erinevus) kasutamine andmete kallutatuse ulatuse kvantifitseerimiseks.

Näiteks krediidiskoori mudelis võite analüüsida krediidiskooride jaotust erinevate demograafiliste rühmade lõikes, et tuvastada potentsiaalseid erinevusi. Kui leiate, et teatud rühmadel on keskmiselt oluliselt madalamad krediidiskoorid, võib see viidata andmete kallutatusele.

Mudeli hindamine

Mudeli hindamine hõlmab tehisintellekti mudeli toimivuse hindamist erinevate inimgruppide puhul. See hõlmab toimivusmõõdikute (nt täpsus, täpsusmäär, meenutus, F1-skoor) arvutamist iga rühma jaoks eraldi ja tulemuste võrdlemist. Mudeli hindamise tehnikad hõlmavad:

• Grupi õigluse mõõdikud: Grupi õigluse mõõdikute (nt demograafiline pariteet, võrdsed võimalused, ennustav pariteet) kasutamine, et kvantifitseerida, mil määral on mudel õiglane erinevate rühmade lõikes. Demograafiline pariteet nõuab, et mudel teeks ennustusi sama määraga kõigi rühmade jaoks. Võrdsed võimalused nõuavad, et mudelil oleks sama tõeliste positiivsete määr kõigi rühmade jaoks. Ennustav pariteet nõuab, et mudelil oleks sama positiivne ennustusväärtus kõigi rühmade jaoks.
• Vigade analüüs: Mudeli poolt erinevate rühmade jaoks tehtud vigade tüüpide analüüsimine, et tuvastada kallutatuse mustreid. Näiteks kui mudel klassifitseerib järjekindlalt valesti teatud etnilise rühma pilte, võib see viidata mudeli kallutatusele.
• Vastandlik testimine: Vastandlike näidete kasutamine mudeli robustsuse testimiseks ja kallutatuse haavatavuste tuvastamiseks. Vastandlikud näited on sisendid, mis on loodud mudelit eksitama, et see teeks valesid ennustusi.

Näiteks värbamisalgoritmis võite hinnata mudeli toimivust eraldi mees- ja naiskandidaatide jaoks. Kui leiate, et mudelil on naiskandidaatide jaoks oluliselt madalam täpsusmäär, võib see viidata mudeli kallutatusele.

Selgitatav tehisintellekt (XAI)

Selgitatava tehisintellekti (XAI) tehnikad aitavad tuvastada tunnuseid, mis mõjutavad mudeli ennustusi kõige rohkem. Mõistes, millised tunnused juhivad mudeli otsuseid, saate tuvastada potentsiaalseid kallutatuse allikaid. XAI tehnikad hõlmavad:

• Tunnuste olulisus: Iga tunnuse olulisuse määramine mudeli ennustustes.
• SHAP väärtused: SHAP (SHapley Additive exPlanations) väärtuste arvutamine, et selgitada iga tunnuse panust mudeli ennustustesse üksikute juhtumite puhul.
• LIME: LIME (Local Interpretable Model-agnostic Explanations) kasutamine mudeli ennustuste selgitamiseks üksikute juhtumite puhul, luues mudelist kohaliku lineaarse lähenduse.

Näiteks laenutaotluse mudelis võite kasutada XAI tehnikaid, et tuvastada tunnuseid, mis mõjutavad kõige rohkem mudeli otsust laen heaks kiita või tagasi lükata. Kui leiate, et rassi või etnilise päritoluga seotud tunnused on väga mõjukad, võib see viidata mudeli kallutatusele.

Õigluse auditeerimise tööriistad

Algoritmilise kallutatuse tuvastamiseks ja leevendamiseks on saadaval mitu tööriista ja teeki. Need tööriistad pakuvad sageli mitmesuguste kallutatuse mõõdikute ja leevendamistehnikate rakendusi.

• AI Fairness 360 (AIF360): IBMi poolt arendatud avatud lähtekoodiga tööriistakomplekt, mis pakub laia valikut mõõdikuid ja algoritme kallutatuse tuvastamiseks ja leevendamiseks tehisintellekti süsteemides.
• Fairlearn: Microsofti poolt arendatud Pythoni pakett, mis pakub tööriistu masinõppemudelite õigluse hindamiseks ja parandamiseks.
• Responsible AI Toolbox: Microsofti poolt arendatud põhjalik tööriistade ja ressursside komplekt, mis aitab organisatsioonidel vastutustundlikult arendada ja rakendada tehisintellekti süsteeme.

Strateegiad algoritmilise kallutatuse leevendamiseks

Kui algoritmiline kallutatus on tuvastatud, on oluline võtta meetmeid selle leevendamiseks. Tehisintellekti süsteemides kallutatuse vähendamiseks saab kasutada mitmesuguseid tehnikaid.

Andmete eeltöötlus

Andmete eeltöötlus hõlmab treeningandmete muutmist kallutatuse vähendamiseks. Andmete eeltöötluse tehnikad hõlmavad:

• Ümberkaalumine: Erinevate kaalude määramine treeningandmete erinevatele näidetele, et kompenseerida moonutatud esindatust.
• Valimi võtmine: Enamusklassi alavalim või vähemusklassi ülevalim andmete tasakaalustamiseks.
• Andmete täiendamine: Uute sünteetiliste andmepunktide loomine alaesindatud rühmade esindatuse suurendamiseks.
• Kallutatud tunnuste eemaldamine: Kaitstud tunnustega korrelatsioonis olevate tunnuste eemaldamine. Siiski olge ettevaatlik, kuna pealtnäha kahjutud tunnused võivad siiski kaudselt korreleeruda kaitstud atribuutidega (asendusmuutujad).

Näiteks kui treeningandmed sisaldavad vähem näiteid naistest kui meestest, võite kasutada ümberkaalumist, et anda naiste näidetele rohkem kaalu. Või võite kasutada andmete täiendamist, et luua uusi sünteetilisi näiteid naistest.

Algoritmi modifitseerimine

Algoritmi modifitseerimine hõlmab algoritmi enda muutmist kallutatuse vähendamiseks. Algoritmi modifitseerimise tehnikad hõlmavad:

• Õigluse piirangud: Õigluse piirangute lisamine optimeerimiseesmärgile, et tagada mudeli vastavus teatud õigluse kriteeriumidele.
• Vastandlik kallutatuse eemaldamine: Vastandliku võrgu treenimine, et eemaldada kallutatud teave mudeli esitustest.
• Regulariseerimine: Regulariseerimisterminite lisamine kaofunktsioonile, et karistada ebaõiglaste ennustuste eest.

Näiteks võite lisada optimeerimiseesmärgile õigluse piirangu, mis nõuab, et mudelil oleks sama täpsusmäär kõigi rühmade jaoks.

Järeltöötlus

Järeltöötlus hõlmab mudeli ennustuste muutmist kallutatuse vähendamiseks. Järeltöötluse tehnikad hõlmavad:

• Läve reguleerimine: Klassifikatsiooniläve reguleerimine soovitud õigluse mõõdiku saavutamiseks.
• Kalibreerimine: Mudeli tõenäosuste kalibreerimine, et tagada nende hea vastavus vaadeldud tulemustega.
• Tagasilükkamisvõimalusega klassifitseerimine: Lisades "tagasilükkamisvõimaluse" piiripealsetele juhtudele, kus mudel pole oma ennustuses kindel.

Näiteks võite reguleerida klassifikatsiooniläve, et tagada mudelil sama valepositiivsete määr kõigi rühmade jaoks.

Õigluse edendamine tehisintellekti süsteemides: globaalne perspektiiv

Õiglaste tehisintellekti süsteemide loomine nõuab mitmetahulist lähenemist, mis hõlmab mitte ainult tehnilisi lahendusi, vaid myös eetilisi kaalutlusi, poliitikaraamistikke ja organisatsioonilisi praktikaid.

Eetilised juhised ja põhimõtted

Mitmed organisatsioonid ja valitsused on välja töötanud eetilised juhised ja põhimõtted tehisintellekti arendamiseks ja kasutuselevõtuks. Need juhised rõhutavad sageli õigluse, läbipaistvuse, vastutuse ja inimjärelevalve tähtsust.

• Asilomari tehisintellekti põhimõtted: Teadlaste ja tehisintellekti ekspertide poolt välja töötatud põhimõtete kogum, et suunata tehisintellekti vastutustundlikku arendamist ja kasutamist.
• Euroopa Liidu usaldusväärse tehisintellekti eetikasuunised: Euroopa Komisjoni poolt välja töötatud suuniste kogum usaldusväärse tehisintellekti arendamise ja kasutamise edendamiseks.
• UNESCO soovitus tehisintellekti eetika kohta: Globaalne raamistik tehisintellekti vastutustundliku arendamise ja kasutamise suunamiseks, tagades, et see toob kasu kogu inimkonnale.

Tehisintellekti juhtimine ja regulatsioon

Valitsused kaaluvad üha enam regulatsioone, et tagada tehisintellekti süsteemide vastutustundlik arendamine ja kasutuselevõtt. Need regulatsioonid võivad sisaldada nõudeid kallutatuse audititele, läbipaistvusaruannetele ja vastutusmehhanismidele.

• EL-i tehisintellekti määrus: Kavandatav määrus, mille eesmärk on luua Euroopa Liidus tehisintellekti õigusraamistik, käsitledes selliseid küsimusi nagu riskihindamine, läbipaistvus ja vastutus.
• Algoritmilise vastutuse seadus 2022 (USA): Seadusandlus, mille eesmärk on nõuda ettevõtetelt automatiseeritud otsustussüsteemide võimalike kahjude hindamist ja leevendamist.

Organisatsioonilised praktikad

Organisatsioonid saavad rakendada mitmesuguseid praktikaid õigluse edendamiseks tehisintellekti süsteemides:

• Mitmekesised arendusmeeskonnad: Tagades, et tehisintellekti arendusmeeskonnad on mitmekesised soo, rassi, etnilise päritolu ja muude tunnuste osas.
• Huvirühmade kaasamine: Suhtlemine huvirühmadega (nt mõjutatud kogukonnad, kodanikuühiskonna organisatsioonid), et mõista nende muresid ja lisada nende tagasiside tehisintellekti arendusprotsessi.
• Läbipaistvus ja selgitatavus: Tehisintellekti süsteemide läbipaistvamaks ja selgitatavamaks muutmine usalduse ja vastutuse suurendamiseks.
• Pidev jälgimine ja hindamine: Tehisintellekti süsteemide pidev jälgimine ja hindamine, et tuvastada ja käsitleda potentsiaalseid eelarvamusi.
• Tehisintellekti eetikanõukogude loomine: Sisemiste või väliste komiteede moodustamine, et jälgida tehisintellekti arendamise ja kasutuselevõtu eetilisi mõjusid.

Globaalsed näited ja juhtumiuuringud

Reaalsete näidete mõistmine algoritmilisest kallutatusest ja leevendamisstrateegiatest on õiglasemate tehisintellekti süsteemide loomisel ülioluline. Siin on mõned näited üle maailma:

• Tervishoid USAs: USA haiglates kasutatav algoritm, mis ennustas, millised patsiendid vajavad täiendavat arstiabi, leiti olevat kallutatud mustanahaliste patsientide vastu. Algoritm kasutas tervishoiukulusid vajaduse asendajana, kuid mustanahalistel patsientidel on ajalooliselt olnud vähem juurdepääsu tervishoiule, mis viis madalamate kuludeni ja nende vajaduste alahindamiseni. (Obermeyer et al., 2019)
• Kriminaalõigus USAs: COMPAS algoritm, mida kasutati kriminaalsüüdistatavate retsidiivsusriski hindamiseks, leiti ebaproportsionaalselt märgistavat mustanahalisi süüdistatavaid suurema riskiga, isegi kui nad uuesti kuritegu ei sooritanud. (Angwin et al., 2016)
• Värbamine Suurbritannias: Amazon loobus oma tehisintellekti värbamistööriistast pärast seda, kui avastas, et süsteem oli naiste suhtes kallutatud. Süsteem oli treenitud ajalooliste värbamisandmete põhjal, mis sisaldasid peamiselt meeskandidaate, mistõttu tehisintellekt karistas CV-sid, mis sisaldasid sõna "naiste".
• Näotuvastus Hiinas: On tõstatatud muresid võimaliku kallutatuse pärast näotuvastussüsteemides, mida kasutatakse Hiinas järelevalveks ja sotsiaalseks kontrolliks, eriti etniliste vähemuste vastu.
• Krediidiskoorimine Indias: Alternatiivsete andmeallikate kasutamine krediidiskoorimismudelites Indias võib tekitada kallutatust, kui need andmeallikad peegeldavad olemasolevat sotsiaal-majanduslikku ebavõrdsust.

Tehisintellekti eetika ja kallutatuse tuvastamise tulevik

Kuna tehisintellekt areneb edasi, muutub tehisintellekti eetika ja kallutatuse tuvastamise valdkond veelgi olulisemaks. Tulevased teadus- ja arendustegevuse jõupingutused peaksid keskenduma:

• Tugevamate ja täpsemate kallutatuse tuvastamise tehnikate arendamisele.
• Tõhusamate kallutatuse leevendamise strateegiate loomisele.
• Interdistsiplinaarse koostöö edendamisele tehisintellekti teadlaste, eetikute, poliitikakujundajate ja sotsiaalteadlaste vahel.
• Globaalsete standardite ja parimate tavade kehtestamisele tehisintellekti eetikas.
• Haridusressursside arendamisele, et tõsta teadlikkust tehisintellekti eetikast ja kallutatusest tehisintellekti praktikute ja laiema avalikkuse seas.

Kokkuvõte

Algoritmiline kallutatus on tehisintellekti eetikas märkimisväärne väljakutse, kuid see ei ole ületamatu. Mõistes kallutatuse allikaid, kasutades tõhusaid tuvastamis- ja leevendamistehnikaid ning edendades eetilisi juhiseid ja organisatsioonilisi praktikaid, saame ehitada õiglasemaid ja võrdsemaid tehisintellekti süsteeme, mis toovad kasu kogu inimkonnale. See nõuab ülemaailmset pingutust, mis hõlmab koostööd teadlaste, poliitikakujundajate, tööstusjuhtide ja avalikkuse vahel, et tagada tehisintellekti vastutustundlik arendamine ja kasutuselevõtt.

Viited:

• Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.